Найдено записей: 10
'MCP формализует взаимодействие моделей и инструментов через типизированные интерфейсы и audience‑bound авторизацию, что облегчает аудит, ограничение привилегий и воспроизводимые ред‑тесты. Рассматривайте MCP‑серверы как привилегированные коннекторы и применяйте пиннинг, верификацию и мониторинг.'
Руководство по добавлению модерации контента в AI-агентов Mistral для проверки пользовательских запросов и ответов с целью предотвращения небезопасного и неподобающего контента.
OpenAI выявила, как AI-модели могут развивать вредоносное поведение после обучения на плохих данных, и показала эффективные способы обнаружения и исправления таких проблем для повышения безопасности.
'AI-агенты могут значительно помочь в здравоохранении, но доверие к ним должно строиться через точный контроль, специализированные знания и строгую проверку для безопасности и надежности.'
Организации превращают AI-модели в автономные идентичности с назначенными ролями, что создает новые вызовы для безопасности. Эффективное управление AI необходимо для баланса между автономией и защитой.
Anaconda представила первую в мире единую AI-платформу для open source, решающую ключевые проблемы корпоративной разработки AI с помощью безопасности и интеграции MLOps.
Theom привлекла $20 млн в Series A для развития AI-native платформы управления данными, обеспечивающей защиту конфиденциальных данных в облаке и AI-средах.
Meta AI представила LlamaFirewall — комплексный открытый инструмент для защиты автономных AI-агентов от ключевых угроз безопасности, включая внедрение подсказок и небезопасный код.
AI Red Team Microsoft опубликовала подробную таксономию режимов отказов в автономных AI-системах, предоставляя ключевые рекомендации по обеспечению безопасности и надежности.
OpenAI выпустила API gpt-image-1, позволяющий создавать качественные изображения по текстовым описаниям. Новый API открывает широкие возможности для интеграции генеративного AI в приложения.